Đô thị Vĩnh Yên hiện nay được thành lập vào ngày 29 tháng 12 năm 1899.

Theo dòng lịch sử, Vĩnh Yên trước khi có tên gọi như ngày nay đã là một vùng đất được hình thành từ lâu đời với 3 vùng sinh thái: Vùng núi, Vùng đồi xâm thực bóc màu, và vùng rìa đồng bằng châu thổ. Đây là nơi từ ngàn xưa đã có con người sinh sống.

Thời Hùng Vương thế kỷ thứ VII đến năm 210 trước công nguyên, khu vực Vĩnh Yên thuộc Bộ Văn Lang. Thời Thục An Dương Vương 210 đến năm 179 trước công nguyên thuộc Bộ Mê Linh. Trong thời kỳ phong kiến phương bắc đô hộ thuộc Quận Giao Chỉ, sau đó thuộc Quận Phong Châu.

Đến thời kỳ Nhà Trần, thế kỷ XIII – XIV thuộc huyện Tam Dương, Trấn Tuyên Quang thời nhà Lê thuộc phủ Đoan Hùng, Trấn Sơn Tây. Thời Nhà Nguyễn, phần lớn Vĩnh Yên thuộc phủ Tam Đái, một phần nhỏ thuộc phủ Đoan Hùng, đều thuộc trấn Sơn Tây.

Ngày 20 tháng 10 năm 1890 đến tháng 4 năm 1891, Vĩnh Yên thuộc địa phận đạo Vĩnh Yên.

Ngày 12 tháng 4 năm 1891, đạo Vĩnh Yên giải thể, Vĩnh Yên trở lại thuộc tỉnh Sơn Tây.

Ngày 29 tháng 12 năm 1899, tỉnh Vĩnh Yên được thành lập, trung tâm tỉnh lỵ được đặt tại một vùng đất thuộc xã Tích Sơn: Núi An Sơn (có tên nôm là Đồi Cao ngày nay) được gọi là Vĩnh Yên, cái tên Vĩnh Yên chính thức có từ đó (Tên gọi Vĩnh Yên là tên ghép bởi hai chữ đầu của phủ Vĩnh Tường và huyện Yên Lạc. Nơi đặt trung tâm tỉnh lỵ lúc đó là xã Tích Sơn thuộc huyện Tam Dương, xã có 5 làng cổ là: Đậu - Dẩu, Khâu, Tiếc, Hạ, Sậu

Năm 1903, đô thị Vĩnh Yên được xác lập gồm 2 phố: Vĩnh Thành, Vĩnh Thịnh và 10 làng cổ là: Cổ Độ, Bảo Sơn, Đạo Hoằng, Hán Lữ, Định Trung, Đôn Hậu, Khai Quang, Nhân Nhũng, Xuân Trừng và làng Vĩnh Yên.

Năm 1968, hai tỉnh Vĩnh Phúc và Phú Thọ hợp nhất thành tỉnh Vĩnh Phú. Thị xã Vĩnh Yên thuộc tỉnh Vĩnh Phú.

Sau năm 1975, thị xã Vĩnh Yên có 4 phường: Đống Đa, Liên Bảo, Ngô Quyền, Tích Sơn.

Năm 1977, sáp nhập 2 xã Định Trung và Khai Quang thuộc huyện Tam Dương và thị trấn Tam Đảo vào thị xã Vĩnh Yên.[2]

Ngày 26 tháng 11 năm 1996, tỉnh Vĩnh Phúc được tái lập từ tỉnh Vĩnh Phú và thị xã Vĩnh Yên trở lại là tỉnh lỵ tỉnh Vĩnh Phúc.[3]

Ngày 18 tháng 8 năm 1999, Chính phủ ra Nghị định điều chỉnh địa giới, mở rộng thị xã Vĩnh Yên như sau[4]:

• Sáp nhập thôn Lai Sơn (xã Thanh Vân, huyện Tam Dương), khu đồi Son (xã Vân Hội, huyện Tam Dương), thôn Lạc Ý (xã Đồng Cương, huyện Yên Lạc) vào thị trấn Tam Dương.
• Sáp nhập thị trấn Tam Dương (thuộc huyện Tam Dương) vào thị xã Vĩnh Yên; trên cơ sở diện tích và dân số thị trấn Tam Dương, chia thị trấn Tam Dương thành 2 phường: Đồng Tâm và Hội Hợp.
• Thành lập xã Thanh Trù trên cơ sở diện tích và dân số hai thôn Vị Thanh, Vị Trù (xã Quất Lưu, huyện Bình Xuyên tách ra).
• Sáp nhập xã Thanh Trù vào thị xã Vĩnh Yên.

Sau khi điều chỉnh địa giới hành chính, thị xã Vĩnh Yên có 5.079,27 ha diện tích tự nhiên và 65.727 nhân khẩu, gồm 10 đơn vị hành chính trực thuộc là các phường: Ngô Quyền, Đống Đa, Liên Bảo, Tích Sơn, Đồng Tâm, Hội Hợp, các xã: Định Trung, Khai Quang, Thanh Trù và thị trấn Tam Đảo.

Ngày 9 tháng 12 năm 2003, thị trấn Tam Đảo được tách khỏi thị xã Vĩnh Yên để sáp nhập vào huyện Tam Đảo mới tái lập[5]. Sau lần điều chỉnh địa giới hành chính này, diện tích tự nhiên thị xã Vĩnh Yên là 50,08 km², dân số trên 100.000 người.

Ngày 23 tháng 11 năm 2004, chuyển xã Khai Quang thành phường Khai Quang.[6]

Tháng 12 năm 2004, thị xã Vĩnh Yên được công nhận là đô thị loại III.

Ngày 1 tháng 12 năm 2006, chuyển thị xã Vĩnh Yên thành thành phố trực thuộc tỉnh Vĩnh Phúc.[7]

Ngày 23 tháng 10 năm 2014, thành phố Vĩnh Yên được công nhận là đô thị loại II[8].